Tháng 3 năm 215, Tào Tháo xuất phát qua Trần Thương[13] đi đánh Trương Lỗ ở Hán Trung. Nhưng họ Tào không tiến ngay về phía nam mà trước hết ra khỏi Tản Quan phía tây để đánh Hàn Toại. Tháng 5, quân Tào đánh tan Đậu Mậu ở Hạ Trì, Hàn Toại bỏ chạy từ Kim Thành tới Tây Bình.[14]

Ông bèn tụ mấy vạn quân người Khương, Hồ đến đánh Diêm Hành. Diêm Hành biết mình thế yếu không thể chống lại, chuẩn bị bỏ chạy. Nhưng lúc đó trong quân Hàn Toại có biến. Ông bị thủ hạ giết chết, mang đầu nộp cho Tào Tháo. Không rõ năm đó Hàn Toại bao nhiêu tuổi.

Thủ hạ của ông là Thành Công Anh đến hàng Tào Tháo.